Цифровой разум: цена прогресса

Инновации и изобретения формируют современный облик нашего мира, и каждое новое достижение ставит перед человечеством экзистенциальные вопросы. Станет ли искусственный интеллект (ИИ) инструментом для усиления человеческого разума, как это задумывалось, поможет он осваивать знания и природные ресурсы или же всё пойдёт не по плану и торжество нейросетей приведёт к деградации человека и потере его самостоятельности? Как развитие технологий повлияет на общественные институты? Какие изменения ждут рынок труда и профессионального образования? Тема стала одной из главных на II Международном симпозиуме «Создавая будущее».

ДОСТИЧЬ ГАРМОНИИ

По мнению научного руководителя проекта «Социософт», директора Центра управления знаниями Международного научно-исследовательского института проблем управления Сергея ПЕРЕСЛЕГИНА, деградация действительно происходит, но она началась задолго до появления ИИ, даже до Интернета. В науке это известно как закон Уэллса: развитие общества и развитие человека находятся в противофазе.

— Индустриальное общество из всех кризисов выходит одним способом: увеличением управляемости общества и ускорением экономики. И то и другое предполагает рост разделения труда и резкое снижение требований к человеческому разуму. Неприятности начинаются в тот момент, когда уровень интеллекта падает до такой величины, что с современной техникой он уже не может работать. Позиция технопессимиста такова: технологии нужны, но они не в состоянии решить проблемы, которые мы сами себе создаём.

Эксперт считает, что сильный ИИ в обозримый период создан не будет. Нейросеть станет великолепно работать с большими данными, но не сможет решать когнитивные задачи. ИИ не умеет работать со смыслами и содержанием, потому что информационные системы различаются не идеями, а количеством байтов. Чтобы получить компьютер, работающий со смыслами, а это и есть настоящий ИИ, придётся начать с нуля.

По словам С. Переслегина, ИИ полностью меняет ситуацию в науке. 99,9% всех исследований он делает лучше, чем человек. 99% всей образовательной работы — трансляция, и здесь ИИ тоже эффективнее. Но в науку и образование вкладывают средства и усилия. Если сейчас сказать, что это не нужно, можно только ускорить катастрофу.

Как достичь гармонии? По мнению спикера, для этого необходимо обеспечить баланс четырёх типов технологий. Физические технологии позволяют нам существовать в окружающем мире, жить лучше и потреблять больше. Гуманитарные, или управляющие, — это попытка гармонизировать человека в пространстве техники. Третий тип технологий — называющие. Если проблема пока неочевидна, это не означает, что её нет: просто нет слов, чтобы её назвать. Семантическая группа технологий позволяет найти имена тому, что появляется в мире.

— Когда не хватает физических технологий, общество сталкивается с пределом бедности и не справляется с давлением среды. В отсутствие управляющих технологий оно встречается с пределом сложности и разрушается, поскольку не в состоянии поддерживать уровень, необходимый для технологического развития. Когда не хватает семантических технологий, наступает предел понимания. А это означает, что становится невозможно размышлять и прогнозировать. Можно предположить, что есть ещё трансцендентные технологии, которые связывают нас с абсолютом. Если они в дефиците, как в современном мире, мы сталкиваемся с пределом веры. Поддерживать баланс должны люди, и это очень сложная задача. Управление технологиями — это управление мышлением.

Вывод технореалиста: обеспечит баланс только симбиоз человеческого интеллекта и искусственного. Но управляющей стороной должен выступать человек, а не робот.

Как отметил директор Лаборатории будущего, советник генерального директора Агентства стратегических инициатив по продвижению новых проектов Иван КАРПУШКИН, ИИ не имеет никакого отношения к конкретному человеку, он не является средством отчуждения знаний. Это инструмент коммуникации между большим количеством людей, их знаниями, записанными в виде данных.

— ИИ был порождён в результате стремительного увеличения численности населения планеты, это ответ на демографический взрыв XX в. и на вызов в виде отсутствия коммуникационной связности. Сейчас он выходит на пик своего развития, который совпадает с пиком демографическим. Проблема состоит в том, что после прохождения высшей точки рост населения пойдёт на убыль, а спада ИИ не произойдёт. Однако нейросетям постоянно нужна подпитка в виде информации. В этот момент может произойти замена человека компьютером или же мы откатимся в тёмные века, люди вообще забудут об ИИ, пересекаться с ним перестанут и его развитие естественным образом прекратится. А нам придётся создавать цивилизацию заново.

Пока философы рассуждают, технологические гиганты уже применяют инновации на практике. Как отметил директор департамента коммуникаций госкорпорации «Росатом» Андрей ТИМОНОВ, ИИ уже внедрён на Нововоронежской атомной электростанции в качестве консультанта операторов.

— Сейчас мы изучаем, насколько позитивным окажется опыт взаимодействия и может ли он быть масштабирован. Ответ вовсе не очевиден. После чернобыльской катастрофы основное требование к операторам — глубинное понимание процессов на таком опасном объекте, как АЭС. ИИ подменит живых операторов в последнюю очередь. То же самое можно сказать и про другие индустрии, которые связаны с большой ответственностью за жизнь людей: авиацию, логистику и т.д., хотя ИИ найдёт своё место и в таких наукоёмких отраслях.

Отдельно эксперт коснулся темы образования.

— Сегодня «нейронки» пишут всё: от рефератов до дипломных работ. Но проблемы с целеполаганием, критическим мышлением, рефлексией были задолго до массового внедрения ИИ. Продвинутые учителя не препятствуют ученикам в том, чтобы те использовали нейросети. Представляется, что умение качественно составить промпт поможет вернуть культуру целеполагания через детальное описание того, что человек хочет получить. А после того как текст составлен, с ним нужно работать с точки зрения фактчекинга, и обучающийся так или иначе изучает материалы программы. На следующем этапе имеет смысл поставить задачу обосновать свою позицию: с чем согласен в тексте, а с чем — нет. Тогда формируется такая важная компетенция, как рефлексия.

За всё время существования технологий человечество не смогло деградировать. Ни письменность, ни книгопечатание е девальвировали знания, да и Интернет их не уничтожил, а сделал более доступными. Думаю, что в такой логике мы справимся и с ИИ. И представляется, что в мире будущего станет ценно не знание факта как такового, а нестандартное, критическое мышление, креативность и целеполагание, — подчеркнул спикер.

ОТ ИЕРАРХИИ К СИМБИОЗУ

Сможет ли человечество адаптировать свои социальные институты и системы управления к вызовам будущего? Или накопленная сложность ведёт нас к коллапсу?

Как отметил интернет-омбудсмен, представитель Уполномоченного при Президенте РФ по защите прав предпринимателей в сфере Интернета, советник генерального директора Агентства стратегических инициатив Дмитрий МАРИНИЧЕВ, социально-экономические уклады меняются на протяжении всей жизни общества. Государство выполняет минимум функций: оно ведёт реестры и использует аппарат насилия для контролирования общества и управления им. И это осуществляется через технологии.

— Когда люди были тотально неграмотны и лишь несколько процентов умели читать и писать, эта прослойка и управляла человечеством. Если при А.С. Пушкине образованный человек имел все знания мира, то затем каждый стал заниматься чем-то своим. Сегодня благодаря ИИ мы любому даём возможность разобраться в какой-либо теме. Как управлять обществом грамотных? Это серьёзный вызов для социальных институтов.

Андрей Тимонов считает, что на стороне технооптимистов история. Человечество уже несколько раз переживало экзистенциальный кризис, когда считалось, что система переусложнилась. Но аграрное общество преобразовалось в индустриальное, мы прошли информационную революцию. Социальные институты не статичные конструкты, они максимально адаптивны к тем вызовам, с которыми мы сталкиваемся. И природную саморегуляцию никто не отменял.

— Все мы разные. Думаю, что и нейросети этого не изменят. Если приводить технологические аналоги, то энергосистема завтрашнего дня будет состоять из разных источников: придомовых солнечных электростанций, гигантских АЭС, накопителей разного объёма — и всё это станет связывать «умная» система, которая учтёт кастомные особенности каждого объекта. Мир становится принципиально другим, представляется, что он будет максимально многополярным. И сообщества: стран, компаний, организаций станут собираться под конкретные проблемы. Госкорпорация «Росатом» год назад выступила с инициативой создать платформу БРИКС, которая будет объединять страны, заинтересованные в развитии атомных технологий для решения энергетических и климатических проблем. Уже сейчас в этом сообществе 11 стран в лице и государственных институтов, и корпораций. Да, сегодня пересматривается роль больших конструктов типа ООН. Но другие организации быстро приспосабливаются к изменениям, например МАГАТЭ играет большую роль в ситуации, когда есть запрос на увеличение атомных мощностей в три раза к 2050 г.

Технологии нам в помощь. Россия лидирует в разработке квантовых компьютеров. Разница между современным компьютером и квантовым будет такой же, как между счётами и калькулятором. При помощи продвинутого ИИ, квантового компьютера и цифровых двойников мы сможем моделировать будущее, — прокомментировал эксперт.

Сергей Переслегин придерживается альтернативной позиции:

— Что такое утопия? Это когда изобрели радио, квантовый компьютер или систему очистки радиационных отходов и настало всеобщее счастье. Антиутопия — изобрели всё то же самое, но счастья нет и никогда не будет. В фантастике популярнее антиутопии жанр панка: киберпанка, тимпанка, дизельпанка, атомопанка. Это уже позиция: изобрели радио и теперь с этим что-то придётся делать. Вполне человеческая реакция.

Идея похоронить государство через технологии существует столько же, сколько сама технология. А оно живёт, потому что само по себе является весьма значимой и эффективно работающей технологией.

КУРС НА СОЗИДАНИЕ

Сегодня наблюдается переход от индустриально-иерархической модели занятости к человекоцентричной. Для поколения Z важны личные ценности, свобода выбора, уважение к индивидуальности. Молодые специалисты отказываются от линейной карьеры и всё чаще стремятся к проектной занятости, к совмещению ролей, гибридной архитектуре труда. Это требует от крупных компаний не просто адаптации, но перестройки логики найма, оценки, сопровождения специалистов.

Важный тренд — рост значимости личных смыслов и социальных миссий. Для многих работа — способ не просто зарабатывать, но следовать ценностям, влиять на общественные изменения. Новый феномен — труд как идентичность, когда карьера превращается в форму самореализации.

Цифровая среда меняет карьерные траектории. ИИ, квантовые и биотехнологии, новые интерфейсы требуют иного мышления: междисциплинарного, системного, этически зрелого. При этом «цифра» обостряет противоречия между стремлением к свободе и стабильностью, между персонализацией и обезличиванием. Есть гипотеза, что следующая ступень после человекоцентричности — создание таких профессиональных цифровых сред, где технологии не подменят человека, но усилят его способности, где карьерные траектории выстраиваются не вокруг функций, а вокруг раскрытия потенциала, общего смысла.

Какие новые ценности могут сформироваться у поколения, которое выходит на рынок? И как в будущем представление о труде будет отличаться от сегодняшнего?

Директор Департамента просветительской деятельности Экспертного института социальных исследований, доцент кафедры социологии и психологии политики факультета политологии МГУ имени М.В. Ломоносова Антонина СЕЛЕЗНЁВА отметила: сегодня идёт переосмысление того, что есть труд.

— Для советского человека он был фундаментальной ценностью, потом лет на 20–25 о труде вообще забыли: говорили о работе, профессии, карьере. Сейчас мы возвращаемся к дискуссии о профессиональной деятельности в терминах труда: это деятельность, требующая умственного и физического напряжения и выражающая отношение человека к процессу и результату. Ценность труда станет маркером персональной позиции, это будет не просто норма, но отношение, личностная установка. В этом контексте труд будет элитарен в противовес массовой работе, выполнению функций для обеспечения жизнедеятельности. Труд по природе созидателен, и в будущем он станет маркером создания нового и социально полезного.

Инновационные прорывы не происходят изолированно. Квантовые технологии открывают новые подходы к вычислениям, к моделированию сложных систем. Нейро- и биотехнологии расширяют когнитивные и физические возможности, меняют способы обучения и принятия решений. На стыке этих направлений появляются профессии, к которым пока не готова ни система образования, ни рынок труда. Какие роли и компетенции окажутся востребованными в новой реальности? Где пройдёт граница между инженером и гуманитарием?

Тему прокомментировал сооснователь Российского квантового центра, советник генерального директора госкорпорации «Росатом» Руслан ЮНУСОВ:

— Уже сейчас расходы молодёжи в виртуальном мире сопоставимы с теми, что совершены в материальном. Может случиться так, что развивающийся ИИ обретёт тело через роботов, а мы его потеряем через интерфейсы. Когда человек объединится с компьютером, хотя бы в части не сознания, а сенсорики, метавселенные станут важнее, чем физический мир. И это кардинально изменит рынок. Сейчас мы думаем о том, что надо строить большие квартиры, а человеку, возможно, достаточно будет купить капсулу площадью 2 м², потреблять цифровой ресурс и глюкозу и быть довольным жизнью. Но если е оставлять мечту о том, что земные космические корабли должны бороздить просторы Галактики, то надо сохранить текущий уровень промышленного производства.

Как отметил эксперт, есть проблемы с тем, что ИИ галлюцинирует. А если в цифровой мир не будет поступать новая информация, вряд ли там появится знание. Если отрезать внешние источники, то мы получим зацикленные миры, станем потреблять дофаминовую «жвачку», но никаких смыслов создавать не будем. Для того чтобы их генерировать, надо продолжать изучать физический мир.

— Безусловно, будут востребованы адаптивность и критическое мышление. Но самые важные науки — это математика и её приложение в материальном мире: физика. Абстрактное мышление надо тренировать, хотя уже никто не считает интегралы аналитическим путём: компьютер то может сделать быстрее. По большому счёту с точки зрения познания мы ничего нового не придумали за тысячелетия. У нас есть причинно-следственные связи, анализ и синтез. Уходить в прикладные проекты, не изучая фундаментальные науки, — проигрышная стратегия.

Каким будет через 10–15 лет институт наставничества? Станет ли это нормой при подготовке кадров и как поможет готовить специалистов для рынков и технологий, которых пока не существует?

Директор Открытого университета «Сколково», лидер проекта «Академия наставников» Екатерина МОРОЗОВА полагает, что функция наставника станет востребованной при выборе профессии.

— Технология наставничества как способ выбора профессии будущего внедряется в нашей стране не так давно. Сначала мы попытались в инновационном центре «Сколково» снабдить наставниками студентов, чтобы те делали стартапы. В прошлом году это направление стали активно использовать, чтобы помочь выбрать карьеру инженера школьникам, которые участвуют в олимпиадах, конкурсах, ходят в кружки. Эксперимент состоял в том, что технонаставниками назначили студентов в паре с учителями. Опыт получился интересным, и на его основе можно судить о том, как изменится ситуация в сфере профориентации. Гипотеза, которую в своё время выдвигали в Минобрнауки России, подтверждается: лучший наставник для школьника — это его сверстник. Через подражание друг другу, желание стать таким же интересным и модным молодёжь присоединяется к значимым инициативам. Всё станет происходить в гибридном формате: цифровые коммуникации должны дополняться аналоговыми. Верю в то, что наставничество позволит сформировать такое важное качество, как критическое мышление, — сообщила спикер.

Какой станет модель занятости и карьерного пути в корпорациях будущего?

Начальник московского филиала «Газпром корпоративный институт» Анна ВОРОНИНА пояснила, что в компании работают около 0,5 млн человек, это примерно 1,5 тыс. должностей и профессий, соответственно найти самореализацию может любой человек.

— Корпоративный институт главной задачей ставит осуществление проектов целевого опережающего обучения. Газовая промышленность сегодня — это высокотехнологичная, интеллектуальная индустрия. Здесь и разработки в области ИИ, и «умные» месторождения, и роботизированные участки. Всё это требует от сотрудников владения технологиями, а иногда и их создания на перспективу.

Компания развивает систему непрерывного профессионального образования. Определённый круг компетенций закреплён и в профстандартах, и в корпоративной модели: компания вместе с вузами-партнёрами стремится формировать их у студентов. С другой стороны, время расставляет акценты, и их мы дополняем корпоративными программами. Работник будущего должен иметь широкий потенциал. Важно не только то, что вы умеете сейчас, но и то, в каких сферах способны развиться, метакомпетенции чрезвычайно важны, поскольку как раз формируют потенциал. На долгие годы останутся важными лидерские качества, умение фокусироваться на задаче и отключаться от информационного контекста, — отметила выступающая.

Дискуссию завершил и. о. ректора Амурского государственного университета Алексей СВИЩЁВ, который «приземлил» проблему и несколько снизил пафос:

— Основная проблема в том, что на уровне государства нет модели комплексного развития, когда образовательные системы соединяются с концепциями развития регионов. Например, по словам гендиректора компании «Газпром переработка», дефицит кадров составляет 1,2 тыс. позиций. Из Москвы в Благовещенск, где расположен университет, каждый день летает минимум четыре борта, заполненных вахтовиками. В Амурской области, где проживает 790 тыс. человек, работать некому. Проблема решаема, но не в краткосрочной перспективе. Для того чтобы попасть в светлое будущее, путь надо осилить, потому что сегодня нас должен кто-то кормить, давать электроэнергию и т.д. Только межведомственные комплексные программы могут сработать. Усилий отдельных, даже очень продвинутых, людей, фондов, корпораций будет недостаточно.

Рубрика: Выставки и конференции

Год: 2025

Месяц: 6

Теги: Искусственный интеллект (ИИ) Футурология Нейросети Сергей Переслегин Иван Карпушкин Андрей Тимонов Дмитрий Мариничев Антонина Селезнёва Руслан Юнусов Екатерина Морозова Алексей Свищёв